Gounod sinh ở Paris. Cha là họa sĩ thiết kế, mẹ là một nghệ sĩ dương cầm. Mẹ của Gounod là người dạy piano đầu tiên của ông, với sự chỉ dạy đó ông đã bộc lộ tài năng âm nhạc. Ông vào học tại Nhạc viện Paris dưới sự giáo dục của  Fromental Halévy và Pierre Zimmermann (cũng là cha của Anne, vợ tương lai của ông). Năm 1839, Gounod giành được học bổng Prix de Rome với cantata Fernand và đến Italy học nhạc, cha ông là François-Louis Gounod vào năm 1783 cũng nhận được giải nhì của học bổng này trong lĩnh vực hội họa. Trong bốn năm tại Italy, ông đã nghiên cứu âm nhạc của Palestrina và nhạc tôn giáo thế kỉ XVI, những thứ ông không bao giờ hết yêu mến. Những tác phẩm đầu tay của ông chịu ảnh hưởng dòng âm nhạc tôn giáo – thuyết giáo Pere Lacordaire dòng Dominican. Khoảng năm 1846-1847, ông có ý định nghiêm túc về việc tham gia vào giới giáo sĩ, nhưng thay đổi suy nghĩ trước khi thực sự tham giao hội thánh và quay lại với sáng tác. Từ năm 1848, Gounod bắt đầu nghiên cứu nhạc kịch. Qua ca sĩ giọng nữ trung Pauline Viardot, ông được nhận vào nhà hát opera sapho cùng với người viết nhạc kịch là Emile Augier. Hè năm 1850, Gounod viết Memoire d’un ariste. 1852, ông viết La noune sanglante và hoàn thành năm 1854. Những tác phẩm tiếp theo là Ivan le terrieble, La reine de Saba, Mireille và Faust. Vở Faust được công chúng Pháp yêu thích và khán giả rất đông. Opera Faust lan sang Đức và trở thành nổi tiếng thế giới. Vở Romeo và Juliette của Gounod thành công và được diễn suốt năm 1867. Sau này Gounod viết vở Cing Mars theo tác phẩm cùng tên của nhà văn Pháp Alfred de Vigny[5].